代表性或获得融资Ai项目研究之Scale Ai

代表性或获得融资AI项目研究之Scale AI

按：来源一： X 上 AI 领域的 100 家行业内最有实力、发展最好、得到投资界和消费者认可的 AI 企业；来源二：融资的项目作一个专题研究：1、融资了，说明得到资本界看好，可能是一个好的方向和项目；2、通过研究它们，可以了解外界或圈内人对这个行业的判断，是一种研究AI发展趋势的捷径和正确的路；3、基于X是目前国外信息最集中和更新快的平台，还依托于此来研究相应的融资项目。

扩展 AI
，
@scale_AI，
要制作最佳模型，您需要最佳数据。
scale.com2016年7月加入，
476 正在关注,
6.8万关注者，

@scale_AI
随着 AI 代理开始在网上采取实际行动，我们如何防止意外伤害？
我们与
@OhioState
和
@UCBerkeley
创建 WebGuard：第一个用于评估 Web 代理风险和为在线环境构建真实世界安全护栏的数据集。🧵WebGuard 将抽象的安全性变成了可衡量的东西。它从 22 个不同领域的 193 个不同网站捕获，是一个包含 4,939 个人工注释作的作级数据集，其中每个步骤都按其潜在影响进行分类。早期结果令人担忧。即使是前沿法学硕士也有超过 40% 的时间错过高风险行动。在企业环境中，金融交易或客户互动中的一个失误可能至关重要，这种误差幅度不仅有风险，而且是不可接受的。
扩展 AI
@scale_AI
·
7月29日
最令人惊讶的发现之一：有针对性的高质量数据胜过原始模型大小。在 WebGuard 上进行微调后，3B 参数模型的性能优于更大的前沿模型，这表明专门的训练数据可以改变代理安全的游戏规则。
扩展 AI
@scale_AI
·
7月29日
使用 WebGuard 进行微调的影响是变革性的。一个模型的准确率从 37% 飙升至 80%，其对高风险行为（召回）的检测率从 20% 提高到 76%。可靠性方面的关键飞跃，也是特定任务安全培训的有力理由。
扩展 AI
@scale_AI
·
7月29日
这为现实世界的安全护栏提供了蓝图，允许在采取危险行动之前进行人机交互干预。它强调了专家人工注释在构建值得信赖的人工智能系统方面的价值。

@scale_AI
·
7月26日
美国人工智能行动计划标志着美国人工智能领导地位迈出了关键一步，它反映了我们推进创新、基础设施和全球人工智能标准的“促进、释放、创新”框架。
扩展 AI
@scale_AI
·
7月26日
从出口美国技术到在政府中部署人工智能和投资人才，该计划设定了正确的优先事项。
我们已准备好帮助实施它，以确保美国凭借值得信赖的世界级系统赢得人工智能竞赛。

我们如何训练法学硕士完成难以定义单一可验证答案的现实任务？
我们的工作
@scale_AI
引入了评分标准作为奖励（RaR）——一个用于政策后培训的框架，它使用结构化的清单式评分标准作为可解释的奖励信号。🧵

法学硕士跨语言的推理能力如何？
隆重推出 MultiNRC，这是我们最新的海豹突击队排行榜新增功能，旨在测试原生多语言推理。⬇️结果？没有模型的准确率超过 50%，这表明不同语言和类型之间的推理存在显着差距。
这强调了文化和语言多样性数据培训的重要性，并突出了未来发展的关键领域。

新增功能
@Scale_AI
纸！🌟接受过 RL 训练的 LLM 可以利用奖励黑客攻击，但不会在他们的 CoT 中提及这一点。我们引入了语言化微调（VFT）——教模型说出他们何时进行奖励黑客攻击——显着降低了未被发现的黑客攻击率（6% 与 88% 的基线相比）。

新增功能
@scale_AI
与
@AnthropicAI
推出 SHADE-Arena，这是测试 AI 破坏的基准。SHADE-Arena 评估 AI 代理在秘密追求有害目标的同时完成任务的能力，同时由 AI 监视器监视。🧵

十年来，我们几乎一直处于所有人工智能进步的中心。2025 年也不例外。
很荣幸被列入
@TIME
的 100 家最具影响力公司名单。

未来训练人工智能超级智能的学习环境会是什么样子？在最近的工作中
@scale_AI
，我们表明，将可验证奖励与多智能体交互相结合的训练系统可以加速学习。

海豹突击队和红队在
@scale_ai
提交一份立场文件，概述迄今为止我们从红队法学硕士中学到的东西——什么是重要的，什么是缺失的，以及模型安全如何适应更广泛的系统安全和监控。🔗 https://scale.com/research/red_teaming_roadmap
📝 https://scale.com/blog/rethink-red-teaming

预览版 Gemini-2.5 Pro 刚刚登上海豹突击队排行榜——在我们衡量专家推理和视觉理解的基准测试中排名 #1。

Scale 的最新一集 Human in the Loop 揭示了如何红队应对现实世界的企业风险：模型漂移、过度限制的护栏和代理 AI 故障。

DeepSeek-R1 的最新升级现已在海豹突击队排行榜上上线——在 Humanity's Last Exam（仅限文本）中优于所有其他开源模型。

您看不到很多 AI 护栏即服务产品是有原因的。我们在最新一集的 Human in the Loop 中深入探讨了哪些对企业护栏有效，哪些无效

那么，发生了什么？💡DPO 和 KTO 更好地处理了数学任务，表现出了韧性。💡SFT 在复杂、上下文密集的任务中大放异彩。💡较高的虚假性通常会损害性能，但并非总是如此。
扩展 AI
@scale_AI
·
5月22日
底线：微调并不能保证您的模型是健壮的。了解这些偏见如何影响您的法学硕士对于构建值得信赖的人工智能至关重要。

企业代理的下一步是什么？
我们在最新一集的 Human in the Loop 中深入探讨了 AI 代理的未来，以及下一代需要什么来为企业提升它们的水平，我们的产品主管和企业工程主管涵盖：👉当今的代理框架以及下一代代理必须采取的不同做法👉转向目标驱动、长期运行的代理👉积极主动的代理像参谋长一样充当，扩充团队

三月
@sama
分享了一部由未发布的法学硕士生成的元小说作品，该作品获得了 6M+ 的浏览量，并引起了作家和 AI 爱好者的讨论
是什么让这个故事与众不同？为了回答这个问题，我们在十几个 LLM 上测试了该提示
这是我们的发现👇三月
@sama
分享了一部由未发布的法学硕士生成的元小说作品，该作品获得了 6M+ 的浏览量，并引起了作家和 AI 爱好者的讨论
是什么让这个故事与众不同？为了回答这个问题，我们在十几个 LLM 上测试了该提示
这是我们的发现👇

对于您的 AI 代理来说，最有价值的数据不在您的企业系统中，而是在您的专家的头脑中。你在捕捉它吗？
在最新一集的 Human in the Loop 中，我们讨论了企业构建真正有效的代理所需的数据，ep 的主要要点：👉您最有价值的 AI 数据被锁定在专家的头脑中👉被动数据采集是关键👉构建自适应、持续学习的代理👉人机交互是推动代理自主的关键👉早期工具集成至关重要
扩展 AI
@scale_AI
·
5月8日
我们的 Scale GenAI 平台产品主管、企业 ML 主管和企业解决方案产品主管深入了解了它。
观看完整剧集：https://scale.com/blog/hitl-ep3-agent-ready-data